SJI terletak di Bukit Nanas; pusat bandaraya Kuala Lumpur dan dikelilingi dengan tumbuhan hijau dan sejajar dengan Hutan Simpan Bukit Nanas. Sekolah rendahnya pula berkongsi tempat/bukit iaitu di seberang jalan berhadapan dengan bangunan sekolah menengah. Juga berkongsi bukit di situ ialah sekolah pelajar perempuan; Convent Bukit Nanas (sebuah sekolah Infant Jesus Sister's), bangunan AIA, kemudahan Catholic Archdiocese of Kuala Lumpur, Tadika Fatima dan juga St. John's Catholic Cathedral. Tadika dan Pusat Khidmat Komuniti berkongsi kemudahan dan bangunan dan juga memegang status bangunan tertua di Kuala Lumpur dan ia adalah bekas bangunan gereja Katolik.

Bangunan Sekolah Menengah St. John terdiri daripada batu-bata berwarna merah dan putih dengan pengaruh senibina Greece-Sepanyol dan ia telah diiktiraf sebagai Bangunan Warisan Kuala Lumpur sejak tahun 1986 lagi, manakala pada 21 Mei 2010, SMK St. John telah diwartakan sebagai Tapak Warisan Kebangsaan oleh Kerajaan Malaysia melalui Jabatan Warisan Negara.